WT Korea ‘AI at the Real Edge’ 세미나 개최...온디바이스 AI, AI MCU 등 에지 생태계 총망라 “효율성 제고를 위해 온디바이스 AI 트렌드에 따라야” 과거부터 인류의 미래를 점칠 때 빼놓을 수 없는 기술은 뭘까? 바로 인공지능(AI)이다. AI는 4차 산업혁명 이후의 차세대 산업체제를 이끌 차세대 슈퍼스타로 평가받는다. 지난 2022년 11월 챗GPT(ChatGPT)의 등장을 기점으로, AI는 ‘생성형 AI(Generative AI)’라는 이름으로 진화를 맛봤다. 이는 곧 지위·연령 등을 막론하고 누구든 활용할 수 있는 기술로의 잠재성을 실감케했다. 이처럼 AI는 인간 삶의 현재와 미래를 잇는 가교로써 존재감을 확장하는 중이다. AI 전문가들은 AI가 활동 영역을 넘나들며 대중화되기 위해서는 각종 애플리케이션, 모바일 기기, 임베디드 및 IoT 시스템 등에서 곧바로 AI 활용이 가능해야 한다고 조언한다. 여기서 언급된 애플리케이션 및 기기는 스마트폰, 카메라, 센서, 웨어러블 및 스마트홈 디바이스 등이다. 온디바이스 AI(On-Device AI)는 바로 여기에 착안해 등장한 기술이다. 클라우드나 서버를 거쳐 AI 및 데이터를 처
마이크로소프트가 링크드인과 함께 제작한 연례 보고서 ‘Work Trend Index 2024(업무동향지표)’를 발표하고 AI를 통해 변화한 전 세계 업무 동향과 채용 방식에 대한 주요 인사이트를 공개했다. 2024년에 접어들면서 업무에 AI를 활용하는 조직이 급격히 증가하고 있다. 이에 마이크로소프트는 ‘업무동향지표 2024’를 통해 AI가 업무와 노동 시장 전반에 미치는 영향에 대한 포괄적인 시각을 담은 세 가지 주요 트렌드를 공개했다. 한국을 포함한 전 세계 31개국 3만1000명이 설문조사에 참여했으며 마이크로소프트 365에서 수집된 수 조개의 생산성 신호, 링크드인의 노동 및 채용 트렌드, 포춘 500대 기업과의 협업을 통해 진행된 연구 결과가 반영됐다. 사티아 나델라 마이크로소프트 CEO 겸 이사회 의장은 “AI가 일자리 전반에 걸쳐 전문 지식을 누구나 쉽게 접하고 활용할 수 있도록 민주화하고 있다”며 “업무동향지표 2024 보고서는 모든 조직이 AI 기술을 활용해 더 나은 의사 결정과 협업을 가능하게 하고 이를 통해 궁극적으로 비즈니스 성과를 개선할 수 있는 기회를 강조하고 있다”고 말했다. AI 시대가 열리면서 조직들은 기술 혁신의 중대한 도전에
이용자와 실시간 음성 대화를 진행함으로써 질문 및 답변 요청할 수 있어 오픈AI가 13일(현지시간) 보고 듣고 말하는 새로운 AI 모델을 공개했다. 오픈AI의 미라 무라티 최고기술책임자(CTO)는 이날 라이브 행사를 통해 'GPT-4o(GPT-포오)'라는 이름의 이 새 AI 모델을 공개하고, 시연을 선보였다. GPT-4o는 주로 텍스트를 통해 대화할 수 있었던 기존 모델과 달리 이용자와 실시간 음성 대화를 통해 질문하고 답변을 요청할 수 있는 AI 모델이다. 새 모델의 'o'는 모든 것이라는 '옴니(omni)'를 뜻한다. 이 모델은 텍스트는 물론, 청각과 시각으로도 추론하고 이를 말하는 한층 똑똑해진 음성 어시스턴트다. 특히, 이용자 질문에 곧바로 답이 제공된다. GPT-4o의 응답 시간은 최소 232밀리초, 평균 320밀리초로, 이는 인간의 응답시간과 비슷하다고 오픈AI는 설명했다. 이전 모델인 GPT-3.5는 평균 2.8초, GPT-4가 응답에 5.4초가 걸렸다. GPT-4o는 사람처럼 대화가 가능하고, 답 제공 중에 끼어들어도 대화는 계속 이어진다. 이날 시연에서 휴대전화로 '내가 좀 긴장한 상태인데 어떻게 진정할 수 있을까'라고 묻자, '숨을 깊이 들
서비스나우가 K24(Knowledge 2024)에서 엔비디아, 마이크로소프트, IBM, 에퀴닉스 등과의 협력을 발표했다. 서비스나우는 기업 업무의 프로세스를 혁신하고자 각 파트너의 최첨단 생성형 AI 기능을 서비스나우의 나우 어시스트(Now Assist)에 통합했다고 밝혔다. 디지털 캐릭터를 현실같이 만들어내는 대화형 AI 아바타부터 생산성을 높이는 통합형 AI 어시스턴트, 데이터 기반 인사이트를 제공하는 기업용 언어 모델 등 서비스나우는 각 산업에서 고객 및 직원 경험을 변화시키기 위해 다채로운 파트너 AI 생태계를 본격적으로 구축한다고 전했다. CJ 데사이 서비스나우 최고 운영 책임자(COO)의 K24 기조연설에서는 엔비디아와의 파트너십을 발표했다. 또한 엔비디아 아바타 클라우드 엔진(ACE, Avatar Cloud Engine) 스피치, 대규모 언어 모델(LLM) 및 생성형 AI로 디지털 캐릭터를 생생하게 구현하는 애니메이션 기술을 활용한 AI 아바타를 선보였다. 이번 행사에는 젠슨 황 엔비디아 최고경영자가 기조연설에 참석해 직원 및 고객 경험의 잠재력에 대해 강조하기도 했다. 기조연설에서는 조직 전반의 워크플로우 참여 옵션을 발전시키고 확장하기 위한
차세대 시리, 원활한 대화 및 이용자 요청 등 생성형 AI에 의해 작동될 것으로 보여 애플이 내달 생성형 인공지능(AI)을 탑재한 음성 비서 '시리'(Siri)의 차세대 버전을 공개할 것으로 11일(현지시간) 알려졌다. 새 버전에는 챗GPT가 탑재될 가능성이 커졌다. 뉴욕타임스(NYT)는 애플이 6월 열리는 세계개발자콘퍼런스(WWDC)에서 대대적으로 개편한 시리를 공개할 준비를 하고 있다고 소식통을 인용해 보도했다. 소식통은 차세대 시리는 이용자와 더 대화가 잘 되고 더 많은 종류의 요청을 이해하는 등 생성형 AI에 의해 작동될 것이라고 전했다. 시리는 애플이 2011년 처음 공개한 음성 비서로, 아이폰 등 애플 기기에서 이용자의 음성 요청에 전화를 걸고, 문자를 보내는 등의 여러 일을 처리한다. 여기에 생성형 AI를 탑재해 이용자와 대화가 가능하게 함으로써 더 똑똑한 시리로 업그레이드한다는 것이다. 애플의 소프트웨어 엔지니어링 담당 수석 부사장인 크레이그 페더리기와 AI 수석 존 지아난드리가 지난해 초 수주 간에 걸쳐 챗GPT를 테스트해보고 시리에 생성형 AI 탑재를 결정한 것으로 알려졌다. 이를 계기로 애플은 AI 도구 개발 경쟁에서 뒤처지지 않기 위해
업스테이지는 AI 언어 데이터 기업 플리토와 AI 언어 데이터 구축을 위한 업무 협약(MOU)을 체결했다고 9일 밝혔다. 현재 빅테크 기업이 주도하는 거대언어모델(LLM) 개발은 영어에 편중돼 상대적으로 아시아권의 언어는 학습 데이터가 부족한 실정이다. 이에 양사는 업무협력을 통해 일본어, 태국어 등 다국어 언어 데이터를 구축, 저자원 언어도 고품질 LLM을 개발할 수 있도록 기반 다지기에 나선다. 구체적으로 양사는 ▲한국어 언어모델 평가 플랫폼 ‘Open-Ko LLM 리더보드’ 벤치마크 데이터셋 구축 ▲다국어 LLM 리더보드 운영 ▲저자원 언어 데이터 구축 및 저자원 언어 활용 LLM 현지화 ▲기업용 LLM 구축에 따른 데이터 공급 파트너십 강화 등 다양한 분야에서 협력을 강화하기로 했다. 업스테이지는 이를 통해 고품질의 저자원 언어 데이터를 확보, 자사의 사전학습 LLM 솔라의 지원 언어를 더욱 확장해 동남아시아 등 다양한 지역별 언어에 특화된 맞춤형 모델을 개발하겠다는 전략이다. 솔라는 현재 한국어, 영어를 지원하며 연내 일본어와 태국어까지 지원 언어를 확대할 예정이다. 플리토는 이번 협약을 바탕으로 언어 데이터와 AI 기술 간의 시너지를 통해 언어 모
베스핀글로벌이 위데이터랩과 B2D2를 기반으로 한 공공 분야의 데이터 및 AI 도입을 위한 업무 협약을 체결했다고 9일 밝혔다. 이 협약은 베스핀글로벌의 클라우드 및 AI 전문성과 위데이터랩의 첨단 IT 시스템 통합 모니터링 기술을 결합함으로써, 두 회사가 공공 부문에서 보다 효과적인 솔루션을 제공하기 위해 체결됐다. 이에 따라 양사는 베스핀글로벌의 AI MSP 서비스인 B2D2를 주축으로 서로 협업해 공공 시장의 데이터 활용 및 AI 도입을 선도적으로 이끌어 나가는 것을 목표로 하고 있다. 또한 상용 DBMS(데이터베이스 관리 시스템, DataBase Management System)는 물론, 오픈소스 DBMS 성능 개선과 모니터링 사업 확대를 위해서도 힘을 모을 계획이다. 각사가 보유한 자원과 역량을 공유하는 것은 물론, 상품 개발과 구성, 마케팅 등 다양한 영역에 있어 상호 협업한다. 베스핀글로벌은 국내외 5000여 곳의 기업과 기관을 대상으로 클라우드 환경 이전과 구축, 운영 및 관리, 데브옵스, 빅데이터, 보안 등을 제공하는 멀티 클라우드 운영 관리 전문 기업이다. AI의 중요성이 확대되면서 그간 수행해 온 데이터 및 AI 프로젝트 경험과 보유 역량
서비스나우가 라스베이거스에서 전 세계 기업의 AI 기반의 혁신을 지원하는 기술을 소개하는 연례 컨퍼런스 ‘놀리지(Knowledge)’를 개최했다. 서비스나우는 나우 어시스트(Now Assist)의 새로운 생성형 AI 기능을 통해 생산성을 높이고 비용 절감을 가속화하며 고객 및 직원이 대규모로 혁신할 수 있도록 지원한다고 밝혔다. 이와 함께 기업 전반의 경험을 통합하는 나우 플랫폼(Now Platform)을 위한 새로운 목적 기반 자동화 솔루션을 비롯해 고객 가치 및 기회를 가속하고 새로운 솔루션 및 전문성을 제공하기 위한 전략적 파트너십의 확장도 함께 발표했다. 이번 발표는 서비스나우가 실적 발표를 통해 강력한 성장 및 수익지표를 공개한 지 일주일 만에 이뤄졌다. 이를 통해 서비스나우의 혁신 로드맵 및 운영 원칙이 고객 및 주주를 위한 가치를 지속적으로 창출할 수 있는 방법을 강조하고 있다. 서비스나우는 K24 개최 전날인 6일(현지 시간) 서비스나우 파이낸셜 애널리스트 데이(ServiceNow Financial Analyst Day)를 통해 2024년 말까지 매출 110억 달러, 2026년 말까지 매출 150억 달러 이상을 달성하겠다는 목표를 밝힌 바 있다
한국 딜로이트 그룹, ‘글로벌 CEO 서베이’ 보고서 발행 한국 딜로이트 그룹은 딜로이트 글로벌과 포춘(Fortune)이 공동으로 진행한 ‘글로벌 CEO 서베이’를 9일 발표했다. 이번 서베이는 올해 2월 20개 이상의 산업을 대표하는 107명의 글로벌 CEO들을 대상으로 실시한 설문조사 및 심층 인터뷰를 토대로 작성됐다. 보고서에 따르면 업무 자동화 부문에 생성형 AI를 채택 중인 CEO는 58%, 자동화 영역 외 생성형 AI 도입 계획을 보유한 CEO는 48%에 달했다. 또한 글로벌 기업 CEO 10명 중 8명은 자사의 산업 전망을 긍정적으로 전망했다. 전년 69% 대비 약 11%p 오른 수치다. 현재 직면한 가장 큰 이슈로 지정학적 갈등을 꼽은 CEO는 65%였으며 올해 3분기 미 연준이 금리인하에 나설 것이라 보는 CEO는 76%로 집계됐다. 생성형 AI 도입에 속도가 붙고 있다. 56%에 달하는 CEO들이 생성형 AI 도입으로 운영 효율성과 생산성 향상 및 비용 절감을 최우선적으로 기대하는 가운데 향후 12개월 내 회사에 가장 큰 영향을 줄 요인으로 실질적인 AI 도입 및 운용, AI 도입에 따른 리스크 관리 등을 꼽았다. 생성형 AI를 기업에 이미
포티투마루 RAG42 솔루션과 네이버 하이퍼클로바X 연계로 원스톱 서비스 제공 포티투마루가 네이버클라우드로부터 전략적 투자를 유치했다고 8일 밝혔다. 지난해 12월 ‘하이퍼클로바X’ 기반의 초거대 인공지능 사업 협력을 위해 업무 협약을 체결한데 이어 시리즈B 라운드에서 투자를 유치하며 HyperCLOVA X 기반의 파트너십 구축을 공고히 했다. 이번 투자는 네이버의 초대규모 AI ‘하이퍼클로바X를 기반으로 두 회사 간의 기술 협력을 강화하고 사업적 시너지를 극대화하기 위한 전략적 투자다. 양사는 포티투마루의 RAG42와 하이퍼클로바X와의 연계로 각 산업군별 도메인 특화 엔진 개발이 가능하도록 RAG 컨설팅부터 LLM 솔루션 구축까지 원스톱 서비스를 제공할 예정이다. 네이버클라우드는 포티투마루가 그동안 글로벌 생성형 AI 분야에서 보여준 뛰어난 기술력과 혁신성이 높게 평가됐고, 다년간 시장에서 검증받은 다양한 상용 사례가 투자 유치에 주요하게 작용했다고 전했다. 네이버클라우드 임태건 전무는 “포티투마루와의 사업적 제휴 협력에 이은 전략적 투자를 통해 하이퍼클로바X를 활용해 생성 AI 분야에서 실질적인 성과를 창출해 가고자 하는 양사의 공동 목표를 실현하고자 한
LG전자는 국내에 있는 임원 200여명을 대상으로 오는 9월까지 4차례에 걸쳐 인공지능(AI)·소프트웨어(SW) 역량 강화 교육을 진행한다고 8일 밝혔다. 국내 전 사업영역의 임원들을 우선 교육해 AI와 소프트웨어의 중요성에 대한 공감대를 형성하고, 구성원과 함께 역량을 높이려는 취지다. 교육 프로그램은 AI와 소프트웨어를 모든 사업 영역에서 어떻게 활용할지를 다룬다. 특히 AI 기술이 적용된 제품 사례를 통해 데이터 분석 AI, 생성형 AI 등 최신 경향을 체감하고, AI 비전 실현 방안을 공유한다. 소프트웨어 영역에서는 소프트웨어 플랫폼 구조와 가상화 기술, 정보보안 등 개발 프로세스를 교육한다. LG전자는 추후 로보틱스와 메타버스, 클라우드·데이터, 시스템온칩(SoC), 통신·미디어 표준, 광학 등 다양한 분야로 임원 교육을 확장할 예정이다. 구성원 대상으로도 소프트웨어 개발자로 직무를 전환할 수 있는 'SW 리스킬링 프로그램', 사이버 보안 역량 강화를 위한 'LG 해킹대회' 등 다양한 교육을 진행한다. LG전자는 "역량 강화 교육을 바탕으로 가전을 넘어 집, 상업 공간, 차량을 포함한 이동 공간, 가상공간인 메타버스까지 고객 경험을 연결하고 확장하는
가트너(Gartner)는 2023년 4분기에 실시된 설문조사를 통해 생성형 AI가 기업에 가장 많이 배포된 AI 솔루션 유형이라고 8일 발표했다. 응답자 중 29%는 생성형 AI를 구축해 사용 중이며 가장 많이 배포하는 AI 솔루션으로 생성형 AI를 꼽았다. 이는 그래프 기술, 최적화 알고리즘, 규칙 기반 시스템, 자연어 처리, 기타 유형의 머신 러닝 등 다른 솔루션보다 더 높은 것으로 나타났다. 3분의 1에 달하는 34%의 응답자는 마이크로소프트 365 코파일럿 또는 어도비 파이어플라이와 같이 기존 애플리케이션에 내장된 생성형 AI를 활용하는 것이 가장 주된 활용법이자 생성형 AI의 사용 사례를 충족하는 최적의 방법이라고 응답했다. 이는 엔지니어링을 통한 생성형 AI 모델 커스터마이징(25%), 맞춤형 생성형 AI 모델 훈련 및 미세 조정(21%), 챗GPT, 제미나이 등의 독립형 생성형 AI 도구 사용(19%) 등 다른 방법보다 자주 사용되는 것으로 나타났다. 레이나 라모스 가트너 시니어 디렉터 애널리스트는 “생성형 AI는 기업 내 AI 확장을 위한 촉매제 역할을 한다”며 “생성형 AI는 리더들에게 다양한 기회를 제공하는 동시에 이를 활용해 대규모 가치를
클라우데라는 ADI(Aboitiz Data Innovation)와 전략적 파트너십을 체결한다고 8일 밝혔다. 이번 파트너십을 통해 클라우데라는 데이터, 분석, AI, 머신 러닝 솔루션용 하이브리드 플랫폼 노하우를, ADI는 아파치 스파크, AI 기반 솔루션 배포 노하우를 공유한다. 이는 금융 서비스를 비롯한 다양한 산업의 고객이 사업 단계에서 데이터 과학, AI를 보다 효과적으로 운영할 수 있도록 지원할 예정이다. ADI는 기업용 AI, 머신 러닝, AI 랩, 데이터 거버넌스, 데이터 윤리 분야에서 클라우데라 소프트웨어에 대한 자문과 구축 서비스를 제공할 예정이다. ADI와의 협력으로 클라우데라는 머신 러닝 프로젝트를 위한 엑셀러레이터(AMP)를 사용해 클라우데라 솔루션 내에서 강력한 생성형 AI 애플리케이션을 제공한다. 기업은 머신 러닝, 생성형 AI 개발 여정을 종단 간 사용 사례를 통해 빠르게 시작할 수 있다. 맞춤형 솔루션은 기업으로 하여금 생성형 AI 애플리케이션을 보다 신속하고 직관적으로 구축, 조정, 배포할 수 있도록 한다. 이를 통해 데이터 수집, 엔지니어링, 데이터레이크 설계, 데이터 품질, 머신 러닝 모델 및 앱 개발, 운영 효율성을 원하는
AMD MI300X 기반 SR685a V3 8GPU 서버 론칭..."기업 AI 전환 가속화 도와" 씽크애자일 MX 455 V3 엣지 솔루션, 씽크시스템 SD535 V3 서버도 함께 공개 레노버와 AMD가 생성형 AI 및 거대언어모델(LLM) 워크로드에 특화된 새로운 서버 및 엣지 솔루션을 이달 8일 발표했다. 양사는 금융·의료·에너지·기후연구·운송 등 대량의 데이터 세트를 관리해야 하는 분야에 IT 인프라 솔루션을 제공하기 위해 이번 신제품 설계에 협력했다. 그 첫 번째 제품은 씽크시스템(ThinkSystem) SR685a V3 GPU 서버로, 대규모 데이터 세트를 처리하기 위한 대용량 메모리와 I/O 대역폭을 제공한다. 이 제품은 엔터프라이즈 프라이빗 온프레미스 AI 및 퍼블릭 AI 클라우드 서비스 제공자 등에 최적화된 솔루션으로 알려졌다. 씽크시스템 SR685a V3에는 AMD 4세대 EPYC CPU와 AMD 인스팅트 MI300X GPU가 이식됐다. 여기에 AMD 인피니티 패브릭을 통해 상호 연결되며, 1.5TB 고대역폭(HBM3) 메모리, 최대 총 1TB/s의 GPU I/O 대역폭 성능 그리고 공기 냉각 기술을 담았다. 현재 엔비디아 HGXTM GPU
챗GPT를 시작으로 생성형 AI 수요가 급격히 증가하면서 주목받은 건 단연 엔비디아 GPU였다. 이와 동시에 GPU 메모리 성능을 담당하는 HBM(High Bandwidth Memory)이 또 하나의 블루오션으로 각광받고 있다. 이에 HBM 생산을 담당하는 삼성전자와 SK하이닉스의 행보에 업계의 관심이 쏠린다. 양사는 지속적인 기술 개발을 바탕으로 파트너십을 확대하고 생산량을 증대하는 데 집중하고 있다. 차세대 반도체 시장 이끌 HBM HBM은 고대역폭 메모리 기술로, 특히 대용량 데이터를 처리해야 하는 AI 개발에서 중요성이 두드러진다. 이 기술은 D램보다 빠른 속도로 데이터를 처리하며, 3D 스택 메모리 구조를 사용해 칩 간에 더 많은 데이터 통로를 제공한다. 이는 메모리 칩을 수직으로 쌓아 올려 칩과 칩 사이의 거리를 최소화하고, 대역폭을 극대화하는 방식이다. HBM의 특장점은 속도와 효율성이다. HBM은 그래픽 카드, 서버, 네트워킹 하드웨어 및 AI 계산과 같이 많은 양의 데이터를 빠르게 처리해야 하는 시스템에서 최선의 제품으로 자리잡고 있다. 구체적으로, HBM은 데이터 센터의 에너지 효율성을 향상시켜 운영 비용을 절감하는 데 기여한다. 무엇보다